1

课程概览:GenAI 时代的不确定性

PolyU COMP5511Lecture 5
00:04

第 5 课标志着 COMP5511 的一个重要转折点。我们正从经典计算的确定性逻辑,以及早期分类模型有监督的确定性思维,走向 生成式 AI 的概率核心。在本节中,我们将探讨为什么现代 AI 模型输出的不是「事实」,而是 概率分布,并揭示让 LLM 能写诗、扩散模型能从噪声中作画的机制。

1. 范式转变:从逻辑到概率

  • 超越 IF-THEN:从僵化的规则转向流动的统计可能性。
  • 确定性的终结:理解为什么 GenAI 的结果天生就是 非确定性的 。
  • 将概率作为工具:GenAI 时代如何把 不确定性视为特性 ,用于激发创造力,而不是需要被修复的缺陷。

2. 创造的概率引擎

生成式 AI 依赖从高维概率空间中采样。无论是生成文本还是图像,模型都在不确定性中探索,从而创造出新意:

  • 大语言模型(LLM):预测下一个词元并非单一选择,而是一个 可能性分布。
  • 扩散模型:从混沌 高斯噪声。
  • 采样过程:如何利用随机性来避免重复和「机械」的输出。

3. 不可预测世界中的智能体

自主智能体必须在「开放世界」中探索,每一次行动都伴随未知的风险与回报。

幻觉的权衡
纯确定性模型虽然安全,但缺乏原创思考。通过拥抱不确定性,我们得以激发创造力,但同时也带来了 幻觉的风险——模型会自信地生成看似合理却虚假的信息。
概念性采样逻辑
1
Define functionGenerate_Response(Prompt,Temperature):
2
Calculateprobability distribution for all possible next tokens;
3
Adjust distribution based on Temperature(Higher = more diverse, Lower = more focused);
4
Select next token using Weighted Random Choice;
5
Repeat until completion.
Probabilistic Modeling
Modern AI views the world through the lens of statistics rather than binary truths.
Gallery Image